I primi documenti in cui viene citata la pieve risalgono al 1008, il che fa presupporre che già esistesse una chiesa dedicata alla Madonna. Tuttavia, la struttura attuale è stata iniziata nel XII secolo, grazie ai finanziamenti e alla collaborazione del comune di Arezzo.

 

Nel XIII secolo, la chiesa è stata dotata di una nuova facciata, mentre la alta torre campanaria è stata terminata soltanto nel 1330.

 

Nel corso dei secoli XVI, XVII e XVIII, la chiesa è stata modificata internamente con stuccature e decorazioni di gusto barocco.

 

Nel XIX secolo, un restauro ha eliminato tutte le aggiunte barocche con lo scopo di riportare la chiesa al suo aspetto romanico originario.

 

La pieve di S. Maria è uno degli edifici di culto più importanti di Arezzo e sicuramente spicca all'interno del panorama architettonico italiano per bellezza e complessità, poiché la si può collocare in un periodo di transizione tra il romanico e il gotico. L’edificio sacro è definito nelle fonti più antiche «Plebs Sancte Marie in Gradibus» e tale appellativo è stato motivo di confusione in passato poiché esiste un’altra chiesa che ne presenta uno simile, ovvero quella di Santa Maria in Gradi, monastero dipendente dalla camaldolese Badia di Agnano.

 

Ancora nel III secolo d.C. il luogo dove si trova la pieve era extraurbano, mentre in età imperiale si trovava all'interno della città in espansione e vi erano edifici prestigiosi e un edificio sacro. A ovest dell'area correva la via consolare Cassia vetus o Clodia che a partire dalla località Olmo attraversava il foro romano posto a nord dell'area della pieve, dove oggi sono i giardini del Praticino e del Prato, mentre ad ovest era situato un tempio pagano, nell'area in cui nell'Alto Medioevo sorgerà la chiesa di S. Pietro maggiore, sostituita poi dall’odierna cattedrale dei SS. Pietro e Donato.

 

La prima fase costruttiva della pieve risale all'epoca paleocristiana, intorno al V-VI secolo d.C., sul luogo dell'ultimo miracolo di san Donato. È stata avanzata l’ipotesi che l’edificio abbia anche ricoperto il ruolo della primigenia cattedrale intra moenia della città. È probabile che la chiesa paleocristiana avesse già un battistero, poiché la necessità di costruire una chiesa battesimale nel suburbio era data dalla lontananza della pieve dalla cattedrale cittadina, situata sul colle del Pionta; nella fase altomedievale doveva esserci sicuramente il fonte battesimale, probabilmente all'esterno a sinistra della facciata. Sebbene molti studiosi concordino sul riconoscere nell’edificio inferiore la chiesa paleocristiana, non mancano le opinioni discordanti. Non ci sono fonti documentarie che riguardano l’edificio durante il periodo longobardo, carolingio e post-carolingio ma è in questo periodo che è da collocarsi la seconda fase edilizia della chiesa, di cui però non conosciamo le caratteristiche: infatti, sebbene la veste attuale della pieve sia databile tra XII e XIII secolo, è stato attestato che questa sorga in realtà su di un precedente edificio di XI secolo, poi ricostruito in quello successivo. Le irregolarità della pianta sono il frutto di una sequenza costruttiva non lineare e sono dovute anche al terreno scosceso su cui è costruito l'edificio.

 

La prima notizia inerente alla pieve risale al 1009, anno in cui il vescovo Elemperto (vescovo di Arezzo tra il 986 e il 1010) l’avrebbe fatta costruire sull'area in cui sorgeva il tempio di Mercurio; è un’epigrafe del 1680 sul primo pilastro a destra a parlare di un tempio pagano dedicato a questa divinità. I ritrovamenti archeologici suggeriscono però che si tratti verosimilmente di un edificio pubblico di età augustea.

 

La fase romanica si colloca nella prima metà del XII secolo, momento in cui i vescovi avevano scelto come sede abitativa un palazzo presso la pieve; si scelse di realizzare un edificio più imponente e solenne ma anche in questo caso non ci sono documenti specifici sulla costruzione, su cui si possono fare solo ipotesi. Con tutta probabilità le dimensioni sono analoghe alla pieve che tutt’ora possiamo ammirare. Il presbiterio sopraelevato si colloca in continuità con quelli realizzati in Padania, in Emilia e a Firenze e al posto dei pilastri dovevano esserci colonnati, una soluzione prediletta anche in Casentino e in Valdarno superiore. La ricostruzione dell’aspetto esterno è più complessa, ma si può ipotizzare che si allineasse a quello delle altre pievi del territorio aretino, come la pieve di S. Eugenia al Bagnoro o la pieve di Socana.

 

Esternamente l’abside che si affaccia su Piazza Grande, seppur molto rimaneggiata, denuncia una chiara ispirazione pisana essendo spartita verticalmente in tre ordini sovrapposti: il primo è costituito da arcature cieche mentre il secondo e il terzo da logge. La facciata è spartita in quattro ordini sovrapposti: il primo è costituito da cinque arcate di cui quattro cieche, quelli superiori presentano colonne che si fanno via via più fitte salendo verso l’alto.

 

La nuova facciata duecentesca fu costruita a ridosso di quella precedente per rendere ancora più monumentale l’edificio. Le colonne dei primi due ordini sorreggono arcatelle a sesto pieno mentre quelle dell’ultimo sostengono un sistema architravato. Per tale impostazione è stato proposto un confronto con la facciata di Nôtre-Dame di Digione, sebbene nella pieve siano però del tutto assenti le gargouilles che popolano la collegiata francese.

 

L’edificio presenta un impianto a tre navate con presbiterio rialzato e cripta sottostante, il transetto non è sporgente e in corrispondenza e nel presbiterio si conservano alcune arcate e capitelli della pieve di XII secolo ma l’ornamentazione sopra le arcate, con colonnette e bifore, appartiene alla fase successiva. Al presbiterio si accede tramite due scalinate laterali e sotto di esso si trova la cripta, molto rimaneggiata durante i restauri ottocenteschi. La lunghezza interna dell’edificio misura dal portale all’abside 54 m, la larghezza è di 25 m, mentre l’altezza è poco meno di 30 m. La copertura è a capriate lignee mentre la cupola non fu mai completata a causa dei problemi di statica.

 

La chiesa di Santa Maria della Pieve è situata nel centro storico di Arezzo, tra corso Italia, sul quale prospetta la facciata, e piazza Grande, su cui prospetta l'abside.

 

La facciata, ricostruita nel XIII secolo, da tre logge sorrette da colonnine; le due logge inferiori sono ad arco, la terza, quella più in alto, è ad architrave. Il coronamento della facciata è privo di timpano.

 

La pieve è dotata di quattro portali, tre in facciata e uno aperto nel fianco meridionale lungo via di Seteria. Sui capitelli delle semicolonne del portale laterale sono raffigurati Sansone che uccide il leone, a sinistra, e il momento in cui lo sbrana, a destra, mentre l’architrave è realizzato con i pezzi altomedievali. La decorazione della lunetta presenta nastri intrecciati che racchiudono elementi vegetali, grappoli d’uva, croci e una figura umana di cui si intravedono la testa, le mani che afferrano i grappoli e i piedi. Nella lunetta del portale destro è rappresentato il Battesimo di Cristo. Il portale sinistro è costituito da modanature che incorniciano un rigoglioso girale con grappoli che potrebbe rievocare il tema simbolico della lunetta di quello meridionale. Attraverso i tre portali l’uomo segue un preciso itinerario: egli è posto fin dall’origine nelle mani di Dio e chiede, attraverso l’avvicendarsi delle stagioni e il suo lavoro, la protezione della Madre di Dio; Il portale centrale presenta infatti, la Vergine fra due angeli e una teoria di santi, con la firma dell'artista, Marchio.

 

Le raffigurazioni dei Mesi nell'imbotte del portale sono oggi attribuite ad un maestro nordico, forse un allievo o un collega del Maestro dei Mesi di Ferrara.